DecisionRank: On-Policy Distillation for Decision-Model Rerankers
DecisionRank：面向决策模型重排器的在线策略蒸馏
🧭 决策重排模型蒸馏 · 单 token 排序 ★ 深度解读
Meta · Purdue University
用 item-space on-policy distillation 把生成式 LLM 排序偏好蒸馏到单 token 决策重排器，8B 超 27B 教师且快 24.5 倍
📌 工作参考价值（4 点）
- 如果线上重排为了低延迟采用单 token doc-id score，可以不必再靠离线静态 RankNet 蒸馏；把学生当前排序的 top-K 作为 teacher-forced 前缀，在 item space 用 reverse KL 对齐 teacher 的条件 next-item 分布，训练与推理完全一致，且 teacher 无需和学生共享词表或架构，适合接闭源/跨家族 LLM 教师。
- 工程实现：每步用学生 first-token logits 排序取 top-20，一次性 teacher-forced forward pass 拿到 step 2–19 的条件分布，再对剩余候选做 Plackett-Luce 归一化和 reverse KL；不需要自回归 rollout，稳定且省算力。联合离线 RankNet，λ=0.1，16k 查询即可在多种 teacher/student 尺寸上稳定增益。
- 对推荐/广告重排的负向结论也有用：AR SFT/AR OPD/Listwise GRPO 在单 token 打分器上不稳定，尤其会伤 general retrieval；因此如果目标是 first-token 推理，不要套用生成式策略优化，应直接用 item-space conditional feedback。
- 附带收益：该方法蒸馏出的 first-token scorer 在 TREC DL/BRIGHT 上 ECE 低于生成式教师，且无需标定专用目标；这对需要阈值截断/出价置信度校准的广告或推荐场景是可直接复用的性质。